Kritikus területeken, mint az autóipar, biztonságtechnika vagy az egészségügy, a machine-learning alapú rendszerek alkalmazása komoly nehézségekbe ütközik. A már meglevő szoftveres megoldások magas szinten teszteltek vagy akár formálisan, modell alapon bizonyítottak. A hallgató feladata a gépi-tanulási modellek jelenleg rendelkezés álló verifikációs módszereinek (pl. α,β-CROWN, auto_LiRPA) feltérképezése és összehasonlítása. Milyen jelenlegi limitációi vannak egy-egy modell tulajdonság igazolásának? (pl. single pixel attack) Milyen kihívásokat jelenthet a jövőben a mesterséges intelligencia kutatás szempontjából a tanító adatbázisok "mérgezettsége"? Milyen backdoor rejthető el egy modellben és hogyan lehetünk biztosak egy AI válaszában?

N/A